Khi Đảng Cộng sản Việt Nam được thành lập vào ngày 3 tháng 2 năm 1930, Nguyễn Ái Quốc, đại diện Quốc tế Cộng sản và người tổ chức Hội nghị thống nhất đã chỉ định người đứng đầu điều hành Ban Chấp hành Trung ương Đảng đầu tiên với cương vị Phụ trách Ban Chấp hành Trung ương Lâm thời Đảng Cộng sản Việt Nam là Trịnh Đình Cửu. Ông giữ chức vụ này cho đến ngày 27 tháng 10 năm 1930, sau khi Hội nghị Trung ương lần thứ nhất kết thúc.

Tại Hội nghị Trung ương lần thứ nhất diễn ra từ ngày 12 đến 27 tháng 10 năm 1930[30], Trần Phú được bầu vào vị trí đứng đầu Ban Chấp hành trung ương với danh xưng Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Đông Dương.

Sau khi Tổng Bí thư Trần Phú bị bắt và mất trong nhà thương Chợ Quán ngày 6 tháng 9 năm 1931, chức vụ Tổng Bí thư bị khuyết do Trung ương Đảng bị truy bắt dữ dội, gần như tê liệt. Trước tình hình đó, dưới sự chỉ đạo của Quốc tế Cộng sản, tháng 3 năm 1934, tại Ma Cao, Ban Chỉ huy hải ngoại của Đảng Cộng sản Đông Dương được thành lập, do Lê Hồng Phong làm Bí thư. Do tình hình Ban Chấp hành Trung ương trong nước gần như bị tê liệt, nên Ban Chỉ huy hải ngoại kiêm Ban Chấp hành Trung ương lâm thời. Chức vụ Bí thư Ban Chỉ huy hải ngoại của Đảng Cộng sản Đông Dương bấy giờ giữ vai trò như Tổng Bí thư. Mãi đến Tháng 7 năm 1936, Bí thư Ban Chỉ huy hải ngoại Hà Huy Tập về nước và giữ chức Tổng Bí thư, trở lại thành chức vụ lãnh đạo cao nhất.

Cương vị lãnh đạo cao nhất của Tổng Bí thư được duy trì cho đến Đại hội đại biểu toàn quốc lần thứ II, từ ngày 11 đến ngày 19 tháng 2 năm 1951. Tại đại hội này, xác lập chức vụ danh dự là Chủ tịch Ban chấp hành Trung ương Đảng Lao động Việt Nam, gọi tắt là Chủ tịch Đảng, được xem là cao hơn cương vị Tổng Bí thư. Tuy đây chỉ là chức vụ danh dự, nhưng do uy tín lớn của Chủ tịch Đảng Hồ Chí Minh, nên hầu như đây là chức vụ thực quyền, nhất là sau Hội nghị Trung ương về vấn đề sửa sai cải cách ruộng đất tháng 10 năm 1956, Tổng Bí thư Trường Chinh từ chức, Chủ tịch Đảng Hồ Chí Minh được coi như kiêm giữ luôn chức vụ Tổng Bí thư.

Tại Đại hội đại biểu toàn quốc lần thứ III tháng 9 năm 1960, tuy không bầu ra chức vụ Tổng bí thư, nhưng chức vụ Bí thư thứ nhất Ban chấp hành Trung ương Đảng Lao động Việt Nam được thành lập, do Lê Duẩn nắm giữ. Chức vụ này mô phỏng theo Liên Xô, nhưng vẫn duy trì chức vụ Chủ tịch Đảng theo kiểu Trung Quốc. Sau khi Chủ tịch Hồ Chí Minh qua đời năm 1969 thì chức vụ Chủ tịch Đảng cũng bị hủy bỏ.

Chức vụ Bí thư thứ nhất trở thành chức vụ đứng đầu Ban Chấp hành Trung ương cho đến Đại hội Đại biểu toàn quốc lần thứ IV tháng 12 năm 1976. Tại đại hội này, chức vụ Bí thư thứ nhất được bãi bỏ và chức vụ đứng đầu Ban Chấp hành trung ương trở thành Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, vẫn do Lê Duẩn nắm giữ. Từ đó, chức vụ này ổn định vai trò và danh xưng cho đến tận ngày nay.

Tổng Bí thư đương nhiệm là Nguyễn Phú Trọng.